联合学习用于大量（数百万）边缘移动设备的机器学习模型的分散培训。它充满挑战，因为移动设备通常具有有限的通信带宽和本地计算资源。因此，提高联合学习的效率对于可扩展性和可用性至关重要。在本文中，我们建议利用部分训练的神经网络，该网络在整个训练过程中冻结了一部分模型参数，以降低对模型性能的影响几乎没有影响的通信成本。通过广泛的实验，我们经验证明，部分培训的神经网络（FEDPT）的联合学习可能导致卓越的通信准确性权衡，通信成本高达46美元，以小的准确度成本。我们的方法还实现了更快的培训，具有较小的内存占用空间，更好的效用，以便强​​大的差异隐私保证。对于推动设备上学习中的过度参数化的局限性，所提出的FEDPT方法可以特别有趣。

The task of image segmentation is to classify each pixel in the image based on the appropriate label. Various deep learning approaches have been proposed for image segmentation that offers high accuracy and deep architecture. However, the deep learning technique uses a pixel-wise loss function for the training process. Using pixel-wise loss neglected the pixel neighbor relationships in the network learning process. The neighboring relationship of the pixels is essential information in the image. Utilizing neighboring pixel information provides an advantage over using only pixel-to-pixel information. This study presents regularizers to give the pixel neighbor relationship information to the learning process. The regularizers are constructed by the graph theory approach and topology approach: By graph theory approach, graph Laplacian is used to utilize the smoothness of segmented images based on output images and ground-truth images. By topology approach, Euler characteristic is used to identify and minimize the number of isolated objects on segmented images. Experiments show that our scheme successfully captures pixel neighbor relations and improves the performance of the convolutional neural network better than the baseline without a regularization term.

The deep learning technique was used to increase the performance of single image super-resolution (SISR). However, most existing CNN-based SISR approaches primarily focus on establishing deeper or larger networks to extract more significant high-level features. Usually, the pixel-level loss between the target high-resolution image and the estimated image is used, but the neighbor relations between pixels in the image are seldom used. On the other hand, according to observations, a pixel's neighbor relationship contains rich information about the spatial structure, local context, and structural knowledge. Based on this fact, in this paper, we utilize pixel's neighbor relationships in a different perspective, and we propose the differences of neighboring pixels to regularize the CNN by constructing a graph from the estimated image and the ground-truth image. The proposed method outperforms the state-of-the-art methods in terms of quantitative and qualitative evaluation of the benchmark datasets. Keywords: Super-resolution, Convolutional Neural Networks, Deep Learning

网络体系结构搜索（NAS）已成为开发和发现针对不同目标平台和目的的新神经体系结构的常见方法。但是，扫描搜索空间由许多候选体系结构的长期培训过程组成，这在计算资源和时间方面是昂贵的。回归算法是预测候选体系结构准确性的常见工具，可以极大地加速搜索过程。我们旨在提出一个新的基准，该基线将支持回归算法的开发，该算法可以通过其计划来预测建筑的准确性，或者仅通过对其进行训练以最少的时代进行训练。因此，我们介绍了440个神经体系结构的NAAP-440数据集，这些数据集使用固定配方在CIFAR10进行培训。我们的实验表明，通过使用现成的回归算法并运行多达10％的培训过程，不仅可以准确地预测体系结构的准确性，而且还可以预测架构预测的值，还可以保持其准确性顺序违反单调性的数量最少。这种方法可以作为加速基于NAS的研究的强大工具，从而大大提高其效率。研究中使用的数据集和代码已公开。

高通量测序技术的最新进展使得可以提取多个特征，这些特征描绘了以不同和互补分子水平的患者样本。此类数据的产生导致了计算生物学方面的新挑战，这些挑战涉及捕获多个基因及其功能之间相互关系的高维和异质数据集的整合。由于它们的多功能性和学习复杂数据的合成潜在表示的能力，深度学习方法为整合多词数据提供了有希望的观点。这些方法导致了许多主要基于自动编码器模型的许多原始体系结构的概念。但是，由于任务的困难，集成策略是基本的，而不是失去全球趋势而充分利用来源的特殊性。本文提出了一种新型策略，以构建可自定义的自动编码器模型，该模型适应高维多源集成而言使用的数据集。我们将评估整合策略对潜在代表的影响，并结合提出一种新方法的最佳策略（https://github.com/hakimbenkirane/customics）。我们在这里关注来自多个OMIC来源的数据的集成，并证明了针对多个任务（例如分类和生存分析）的测试用例的拟议方法的性能。

与液态燃料相比，电动汽车（EV）的广泛采用受到目前能量和功率密度低的电池的限制，并且会随着时间的推移而衰老和性能恶化。因此，在电动汽车生命周期内监视电池电量状态（SOC）和健康状况（SOH）是一个非常相关的问题。这项工作提出了一个电池数字双结构结构，旨在在运行时准确反映电池动力学。为了确保有关非线性现象的高度正确性，数字双胞胎依赖于在电池演化痕迹随时间训练的数据驱动模型中依靠：SOH模型，反复执行以估计最大电池容量的退化和SOC型号的降级，定期重新训练以反映衰老的影响。拟议的数字双结构将在公共数据集上举例说明，以激发其采用并证明其有效性，并具有很高的准确性和推理以及与车载执行兼容的时间。

本文的目的是纠正对卷积神经网络（CNN）的误解。CNN由卷积层组成，由于重量共享，这些卷积层是偏移的。但是，与普遍的看法相反，即使忽略边界效应以及汇集和亚采样不存在，卷积层也不是翻译等效的。这是因为移位均值是一种离散的对称性，而翻译等效性是连续的对称性。这种离散的系统一般不会继承持续的等效性是对模棱两可的深度学习的基本限制。我们讨论了这一事实的两个含义。首先，尽管没有继承其模型的物理系统的翻译等效性，但CNN在图像处理方面取得了成功。其次，使用CNN求解偏微分方程（PDE）不会导致翻译模化求解器。

The-Internet（IoT）网络智能地连接了数千个物理实体，为社区提供各种服务。它目睹了指数扩展，这使发现网络中存在的IoT设备并请求相应的服务的过程变得复杂。随着物联网环境的高度动态性质阻碍了传统的服务发现解决方案的使用，我们在本文中，通过提出一个可扩展的资源分配神经模型来解决此问题，足以适合异构的大型IoT网络。我们设计了一种图形神经网络（GNN）方法，该方法利用IoT网络中设备之间形成的社会关系来减少任何实体查找的搜索空间，并从网络中的另一个设备中获取服务。这种提出的资源分配方法超过了标准化问题，并通过GNNS的方式嵌入了社会物联网图的结构和特征，以最终的聚类分析过程。对现实世界数据集的仿真结果说明了该解决方案的性能及其在大规模IoT网络上运行的显着效率。

6G将移动移动网络以增加复杂程度。为了处理这种复杂性，网络参数的优化是确保高性能和及时适应动态网络环境的关键。天线倾斜的优化提供了一种实用且具有成本效益的方法，以提高网络中的覆盖率和容量。通过学习自适应策略优于传统的倾斜优化方法，基于强化学习（RL）的先前方法对倾斜优化具有很大的通知。但是，大多数现有的RL方法都基于单个小区特征表示，它无法完全表征代理状态，从而导致次优的性能。此外，由于国家行动爆炸和泛化能力，大多数此类方法缺乏可扩展性。在本文中，我们提出了一个关于倾斜优化的Q-Learnal（GaQ）算法的图表。 GaQ依赖于图形注意机制来选择相关的邻居信息，提高代理状态表示，并根据使用深Q-Network（DQN）的观察历史更新倾斜控制策略。我们表明GAQ有效地捕获重要的网络信息，并通过大边距与本地信息优于标准DQN。此外，我们展示了概括到不同尺寸和密度的网络部署的能力。

卷积神经网络（CNN）的泛化性能受训练图像的数量，质量和品种的影响。必须注释训练图像，这是耗时和昂贵的。我们工作的目标是减少培训CNN所需的注释图像的数量，同时保持其性能。我们假设通过确保该组训练图像包含大部分难以分类的图像，可以更快地提高CNN的性能。我们的研究目的是使用活动学习方法测试这个假设，可以自动选择难以分类的图像。我们开发了一种基于掩模区域的CNN（掩模R-CNN）的主动学习方法，并命名此方法Maskal。 Maskal涉及掩模R-CNN的迭代训练，之后培训的模型用于选择一组未标记的图像，该模型是不确定的。然后将所选择的图像注释并用于恢复掩模R-CNN，并且重复这一点用于许多采样迭代。在我们的研究中，掩模R-CNN培训由由12个采样迭代选择的2500个硬花甘蓝图像，从训练组14,000个硬花甘蓝图像的训练组中选择了12个采样迭代。对于所有采样迭代，Maskal比随机采样显着更好。此外，在抽样900图像之后，屏蔽具有相同的性能，随着随机抽样在2300张图像之后。与在整个培训集（14,000张图片）上培训的面具R-CNN模型相比，Maskal达到其性能的93.9％，其培训数据的17.9％。随机抽样占其性能的81.9％，占其培训数据的16.4％。我们得出结论，通过使用屏马，可以减少注释工作对于在西兰花的数据集上训练掩模R-CNN。我们的软件可在https://github.com/pieterblok/maskal上找到。